Eli Cohen được sinh ra ở Alexandria trong một gia đình Do Thái sùng đạo vào năm 1924. Cha ông đã chuyển tới đây sinh sống từ Aleppo vào năm 1914. Tháng 1 năm 1947, ông đăng ký nhập ngũ trong quân đội Ai Cập nhằm không phải trả khoản phí mà những người Do Thái trẻ bị áp đặt ở Ai Cập, nhưng ông không được chấp nhận vì lý do chính quyền đưa ra là không đáp ứng đủ lòng trung thành. Cũng trong năm đó, sau sự việc này ông cũng phải rời khỏi trường đại học và bắt đầu tự học ở nhà do sự sách nhiễu của tổ chức Anh em Hồi giáo. Trong những năm sau sự kiện thành lập Israel, nhiều gia đình Do Thái rời khỏi Ai Cập. Mặc dù ba mẹ ông và 3 người anh em đến định cư tại Israel vào năm 1949, Cohen vẫn ở lại để tốt nghiệp bằng cấp về điện tử và điều hành các hoạt động của phong trào phục quốc Do Thái. Năm 1951, sau một cuộc đảo chính, một chiến dịch bài Do Thái xuất hiện, và Cohen bị bắt và thẩm vấn do các hoạt động trong cộng đồng Do Thái.[2] Cohen tham gia vào nhiều hoạt động gián điệp của Israel ở Ai Cập vào thập niên 1950, mặc dù chính phủ Ai Cập chưa thể xác định được bằng chứng về vai trò của ông trong Chiến dịch Goshen, nhưng một chiến dịch đã được Israel thực hiện để đưa người Ai Cập gốc Do Thái rời khỏi nước này và tái định cư ở Israel do sự thù địch ngày càng tăng lên ở đây.[cần dẫn nguồn]

Năm 1955, một đơn vị làm nhiệm vụ phá hoại, bao gồm những người Ai Cập gốc Do Thái được tuyển dụng bởi cảnh sát mật Israel thực hiện nhiệm vụ làm tổn hại mối quan hệ của Ai Cập với cái cường quốc phương Tây. Đơn vị này đánh bom các cơ sở của Hoa Kỳ và Anh để tạo sự lầm tưởng đây là hành động của người Ai Cập. Sự kiện này được biết dưới cái tên "Lavon Affair." Chính quyền Ai Cập phá vỡ một đường dây gián điệp và sau một phiên tòa, hai thành viên của nhóm bị tuyên án tử hình. Cohen đã trợ giúp đơn vị này và có liên can, nhưng không có mối liện hệ nào giữa Cohen và các cáo buộc được chứng minh.[2]

Sau sự kiện khủng hoảng Suez, chính phủ Ai Cập tăng cường quấy nhiễu người Do Thái và trục xuất họ. Tháng 12 năm 1956, Cohen bị buộc phải rời nước này. Với sự trợ giúp của Vụ Do Thái, ông đến định cư tại Israel, và đi đến cảnh Haifa trên một con tàu xuất phát từ Naples, Italy.[2][3]

Năm 1957, Cohen được Lực lượng Quốc phòng Israel tuyển dụng, và làm việc trong bộ phận tình báo quân đội, với vai trò là chuyên gia phân tích phản gián. Công việc này khiến ông nhàm chán, và ông cố gắng để gia nhập Mossad. Cohen cảm thấy bị xúc phạm khi Mossad từ chối, và sau đó ông đã từ chức không làm việc tại bộ phận phản gián. Trong vòng hai năm tiếp theo, ông làm thư ký hồ sơ tại một văn phòng bảo hiểm ở Tel Aviv, và kết hôn với Nadia Majald, một người Do Thái nhập cư từ Iraq vào năm 1959. Họ có ba đứa con Sophie, Irit và Shai,[4] và gia đình này đến ở tại Bat Yam.

Mossad tuyển dụng Cohen sau khi Tổng Giám đốc Meir Amit, trong lúc đang tìm kiếm ứng cử viên để làm đặc vụ thâm nhập chính phủ Syria, đã tình cờ thấy tên ông trong hồ sơ những người bị loại, khi mà trước đó không ứng cử viên nào chứng tỏ được mình thích hợp cho vị trí này. Trong vòng hai tuần sau đó, ông được đặt dưới sự giám sát của Mossad và được xác nhận thích hợp để tuyển chọn và đào tạo. Cohen được thông báo rằng Mossad quyết định sẽ tuyển ông, và ông sẽ trải qua một khóa đào tạo gắt gao kéo dài sáu tháng tại trường huấn luyện Mossad. Bản báo cáo tốt nghiệp của ông viết rằng ông đã có đủ phẩm chất cần để trở thành một katsa, hay một đặc vụ tiền tuyến.[3][5]

Ông được tạo một danh tính giả là một doanh nhân người Syria quay trở về nước sau khi sống ở Argentina. Nhằm tạo vỏ bọc này, Cohen đến ở Argentina vào năm 1961.[6][7]